ИИ рулит! Часть 2: AI да Пушкин

Чего они не понимали, люди прошлого – это того, что искусственный интеллект вовсе не будет роботом с лампочкой на голове, которому захочется трахнуть в провода другого робота с лампочкой, о чем прослезившееся человечество немедленно снимет многосезонный сериал.

Виктор Пелевин, «iPhuck 10».

Случайно или нет, но 12 марта 2024 г., вскоре после освобождения пострадавшего от наветов искусственного интеллекта ученого (см. часть 1), в Российской академии наук состоялось специальное заседание президиума, посвященное угрозам ИИ. Академики пригласили на нее и специалистов в области юриспруденции.

Вот, например, что поведал им председатель Арбитражного суда Московского округа Вячеслав Кресс: «Исследования рисков в области когнитивной социологии показывают, что субъекту правоприменения, то есть судье, психологически сложно отступать от рекомендаций, сформированных алгоритмами, или изменять их».

В первой части мы рассказали, как следователи отдела по особо важным делам Следственного комитета РФ по г. Москве задержали ученого из Ярославля на том основании, что ИИ определил его 55-процентное сходство с фотороботом преступника, 20 лет назад убившего трех женщин в Подмосковье. Теперь понятно, что следователи, добившиеся признательных показаний от человека, который физически не мог оказаться на месте преступления, стали жертвой когнитивной социологии.

В своем докладе Кресс, кстати, рассказал, что в судебной практике пока речь идет лишь об использовании ИИ в качестве ассистента, который формирует для судьи рекомендации на основе анализа больших массивов данных. Но часть специалистов уже допускает делегирование ИИ полномочий по вынесению судебных решений по отдельным категориям дел. То есть уже можно представлять себе умную колонку в виде судейского молотка, который после удара по столу миленьким голоском Алисы будет сообщать, как долго предстоит загорать очередному папанинцу на внутренних водах.

К чему может привести подобная практика, показал пример из другого доклада, с которым выступил на президиуме академик Арутюн Аветисян, директор Института системного программирования РАН и руководитель Исследовательского центра доверенного искусственного интеллекта.

Академик поведал коллегам, что в 2023 году один американец подал в суд на авиакомпанию, заявив, что получил травму во время полета, когда металлическая сервировочная тележка ударила его по колену. Поскольку в США действует прецедентное право, адвокаты истца предоставили суду записку на 10 страницах, где перечислялись судебные решения по похожим случаям. Но когда судья попытался отыскать оригиналы этих дел, то не смог их найти. Выяснилось, что адвокаты подготовили свою справку с помощью ChatGPT, который решил сам сгенерировать нужные для защиты «факты».

Столь творческий подход несколько перекликается с сюжетом романа Виктора Пелевина «iPhuck 10», написанного от лица литературно-полицейского алгоритма, который расследует преступления и одновременно пишет об этом детектив, чтобы полицейское управление могло заработать дополнительные средства на финансирование своей бурной деятельности.

«У меня есть имя – Порфирий Петрович, – пишет алгоритм в романе Пелевина. – Но это не значит, что у алгоритма, пишущего эти строки, имеется какое-то «я», или что он «есть» в философском смысле. Меня не существует в самом прямом значении. Я ничего не чувствую, ничего не хочу, нигде не пребываю. Впрочем, всё сказанное относится и к тебе, дорогой читатель: по имеющейся у Полицейского Управления информации, фундаментальная природа человеческой личности та же самая».

Грань между быть или не быть в современном мире действительно становится все тоньше, особенно при использовании высокоточных боеприпасов. Собственно, в этом и состоит бертолетова соль пелевинской философии с ее чапаевской пустотой. Но это не отменяет того факта, что даже если назвать ChatGPT Петровичем и вставить в процессор свисток, судить ему и футбольного матча нельзя доверить.

Между прочим, Порфирий Петрович в исходном коде Федора Михайловича также был весьма словоохотлив и психо-логичен, особенно в знаменитой сцене с Родионом Романовичем: «Как кто убил?.. – проговорил он, точно не веря своим ушам, – да вы убили, Родион Романыч! Вы и убили-с… – прибавил он почти шепотом».

Ну кто после этого не сознается! Вероятно, следователи по особо важным делам приблизительно так же прессовали и своего «студента» в КПЗ. Только без словоерсов. В общем, так или иначе, ключевую роль в русской следственной школе с ее утонченным психологизмом все равно играют уши.

Кстати, раз уж речь зашла о литературе, то вот еще один интересный факт из доклада директора Департамента сопровождения законопроектной деятельности и нормативно-правового регулирования Правительства Российской Федерации Павла Степанова, который рассказал, что престижную литературную премию Акутагавы в Японии в 2023 году получила 33-летняя писательница Риэ Кудан за роман «Токийская башня сочувствия», около 5% текста которого были сгенерированы ИИ и включены в книгу без изменений.

5% – это, конечно, не 55. Но нет сомнений, что этот процент в литературном творчестве самых прогрессивных писателей будет быстро расти. Более того, по словам докладчика, уже даже родился литературный поджанр – произведения, полностью сгенерированные ИИ.

На президиуме, кстати, развернулась дискуссия по поводу юридически корректного определения ИИ, и среди вариантов прозвучал такой: «Искусственный интеллект – комплекс технологических решений, позволяющий имитировать когнитивные функции человека и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека».

Ну что же, если ИИ будет выдавать в неограниченном количестве тексты, сопоставимые с результатами интеллектуальной деятельности если не Пушкина с Достоевским, то хотя бы Пелевина с Риэ Кудан, то никто жаловаться прокурору не станет. Кроме, может быть, Пелевина. Но уместна ли подобная «имитация когнитивных функций» при проведении следственных мероприятий?

Продолжение следует.

Часть 1: за гранью фантастики